Diamond sinh ra ở Brooklyn, New York, trong một gia đình Do Thái hậu duệ từ người nhập cư Nga và Ba Lan. Cha mẹ của ông là Rose (nhũ danh Rapaport) và Akeeba "Kieve" Diamond, một thương gia bán vải.[4][5] Ông lớn lên tại một số nhà ở Brooklyn, cũng trải qua bốn năm ở Cheyenne, Wyoming, nơi cha ông đóng quân.[6] For his 16th birthday, he received his first guitar.[7] Ở Brooklyn, ông theo học Erasmus Hall High School [8] và là thành viên của Câu lạc bộ Chorus và Choral cùng với bạn cùng lớp Barbra Streisand[5]. Họ không phải là bạn thân vào lúc đó, Diamond nhớ lại: "Chúng tôi là hai trẻ em nghèo ở Brooklyn, chúng tôi thường tụ tập ở phía trước cửa trường Erasmus High và hút thuốc lá "[9] Sau khi gia đình chuyển đi, anh theo học tại trường trung học Abraham Lincoln,[10][11] và là một thành viên trong đội đấu kiếm. Trong sinh nhật lần thứ 16, ông nhận được cây guitar đầu tiên của mình [7].

Khi còn 16 tuổi, và vẫn còn học trung học, Diamond đã trải qua một số tuần tại trại Lake Surprise,[12] trại cho trẻ em Do Thái ở vùng ngoại ô New York, khi ca sĩ nhạc dân ca Pete Seeger biểu diễn một buổi hòa nhạc nhỏ [13]. Nhìn thấy ca sĩ được công nhận rộng rãi biểu diễn, và xem những đứa trẻ khác hát bài hát cho Seeger mà họ tự viết, đã có tác động ngay lập tức lên Diamond, người sau đó đã nhận thức được khả năng viết bài hát của chính mình. "Và điều tiếp theo, tôi được một cây đàn guitar khi chúng tôi trở về Brooklyn, bắt đầu học chơi nó và gần như ngay lập tức bắt đầu viết bài hát", ông nói. Ông nói thêm rằng sự thu hút của ông trong việc sáng tác nhạc là "mối quan tâm thực sự đầu tiên" khi ông lớn lên, ngoài việc giúp ông giải phóng "sự thất vọng" lúc còn trẻ của mình." [13]

Diamond cũng đã sử dụng kỹ năng mới phát triển của mình trong việc viết lời bài hát để viết thơ. Bằng cách viết các bài thơ cho các cô gái, mà ông bị thu hút trong trường học, ông sớm biết rằng nó thường giành được trái tim của họ. Các bạn học nam của ông ghi nhận điều này và bắt đầu yêu cầu ông viết thơ cho họ mà họ sẽ hát và sử dụng cũng đạt được thành công tương tự.[5] Ông trải qua mùa hè sau khi tốt nghiệp làm một người bồi bàn tại khu nghỉ mát Catskills. Ở đó ông gặp Jaye Posner, người sau này nhiều năm sau trở thành vợ ông [12]:26

Diamond tiếp theo vào Đại học New York nơi ông được học bổng đánh kiếm học chuẩn bị cho ngành y khoa. . Kỹ năng của ông trong việc đánh kiếm khiến ông trở thành thành viên của đội vô địch NCAA nam năm 1960.[14] Tuy nhiên, ông thường buồn chán trong lớp, và cảm thấy viết lời bài hát thì hợp với ý thích của mình hơn. Ông bắt đầu bỏ lớp học và lên tàu hỏa đến Tin Pan Alley, nơi ông cố gắng để có được một số bài hát của ông được nghe bởi các nhà xuất bản âm nhạc địa phương.[13] Vào năm cuối của khóa học, và chỉ còn 10 bài học trước khi tốt nghiệp, Sunbeam Music Publishing đã cho anh ta một công việc 16 tuần để viết các bài hát với giá 50 đô la một tuần và anh ta bỏ học để nhận nó.[13]